1
定义标准形式的凸问题
MATH008Lesson 4
00:00

标准形式的凸优化问题构成了现代数学规划的基础。它由一个凸目标函数 $f_0$、凸不等式约束 $f_i$,以及 仿射 等式约束定义。通过在这些定义域的交集 $\mathcal{D} = \bigcap_{i=0}^m \text{dom } f_i$ 上定义问题,我们确保任何局部最优解都是全局最优解。

1. 标准形式的数学结构

该问题的形式化表述如下:

$$\begin{aligned} &\text{最小化} && f_0(x) \\ &\text{满足} && f_i(x) \leq 0, \quad i = 1, \dots, m \\ &&& a_i^T x = b_i, \quad i = 1, \dots, p \end{aligned}$$

可行集定义为 $\text{dom } F = \{x \in \text{dom } f_0 \mid f_i(x) \le 0, i = 1, \dots, m, h_i(x) = 0, i = 1, \dots, p \}$。凸性的一个关键要求是等式约束必须是仿射的($Ax = b$),因为非线性等式通常会产生非凸集。

2. 几何上的上图解释

上图形式问题 使我们能够在‘图像空间’$(x, t)$ 中对优化问题进行几何解释。通过引入一个松弛变量 $t$,我们最小化 $t$,且要求 $(x, t) \in \text{epi } f_0$。这表明可行集、任意次水平集和最优集本质上都是凸的。

3. 隐式与显式陷阱

一个常见的误解是将约束转移到目标函数中(使其隐含)可以简化问题。然而, 使约束隐含并未让问题更容易分析或求解即使最终问题名义上是无约束的。这一点在 Oracle 模型(黑箱模型)中尤为明显,我们以一定代价评估 $f(x)$ 及其导数,却不知道其明确结构。

4. 现实世界应用

  • 投资组合理论: 最小化风险 $\text{var}(c^T x) = x^T \Sigma x$,针对 4 个资产(例如,资产 1 的回报率为 12%,标准差为 20%)。
  • 工程学: 结构约束,如 $y_i = 6(i - 1/3) \frac{F}{E w_i h_i^3} + v_{i+1} + y_{i+1}$。
  • 概率论: 损失风险约束 $\Phi^{-1}(\beta) \leq 0$。
🎯 核心原理
对于可微的目标函数 $f_0$,最优性条件为:对所有可行的 $y$,有 $\nabla f_0(x)^T(y - x) \geq 0$。这意味着梯度在最优点处必须是可行集的一个支撑超平面。